SpectrumQuant: Spectrum Alignment for LLM Quantization
SpectrumQuant：面向LLM量化的谱对齐旋转方法
🧭 LLM 量化 · 正交旋转 ★ 深度解读
Indian Institute of Science
通过协方差最大化推导出闭式数据感知正交变换，大幅降低LLM量化校准成本
📌 工作参考价值（4 点）
- 数据感知旋转替代固定 Hadamard：在电商/搜索推荐场景部署 LLM 时，若采用旋转量化（如 QuaRot、SpinQuant），可直接用激活协方差特征向量作为对齐组件 U，再与 Hadamard/Butterfly 混合，无需迭代优化即可获得与学得旋转相当的精度，适合快速适配领域数据（如电商 query、商品描述）。
- 闭式解大幅降低校准成本：SpectrumQuant 仅需估计激活协方差并做特征分解，70B 模型校准仅 43 分钟（单 A6000 GPU），内存占用 22 GiB，相比 SpinQuant 加速 21 倍、省 9.8 倍内存，且支持 CPU 校准，适合资源受限的线上服务或边缘部署。
- 旋转可完全吸收进权重，零推理开销：正交旋转矩阵可合并到相邻权重中，实测 MacBook 上推理吞吐与无旋转基线一致，不影响在线延迟，适合对实时性要求高的搜索推荐/Agent 系统。
- Butterfly 矩阵作为高效混合组件：理论证明满足 |v_{ki}|=1/√d 的正交矩阵（Hadamard、特定角度 Butterfly）均为最优混合组件，Butterfly 乘法 O(d log d) 可进一步降低在线计算，替换 R3/R4 中的 Hadamard 不影响精度。